เครื่องมือนักพัฒนา
IsoExec ทำให้ trainer กับ vLLM คำนวณ logprob ตรงกันระดับบิต — ค่าเบี่ยงเบนสูงสุดต่อสเต็ปร่วงจาก 5.073 เหลือ ~0.044 แลกกับช้าลง 25.3%
21 ส.ค. 2026 ทีม SkyRL เผยแพร่ IsoExec บนบล็อก vLLM — สัญญา execution contract บวกเคอร์เนลแบบ batch-invariant ที่บังคับให้ trainer (Megatron) กับ rollout engine (vLLM) ได้ logprob ตรงกันระดับบิต ทดสอบบน Qwen3.5-35B-A3B บน 8xH100 ค่าเบี่ยงเบนสูงสุดต่อสเต็ปลดจาก 5.073 เหลือราว 0.044 ต้นทุนคือ end-to-end ช้าลง 25.3% โค้ดเปิด Apache-2.0
· อ่าน 6 นาที